جستجوی معماری عصبی: خودکارسازی طراحی مدل‌های یادگیری عمیق

یادگیری عمیق زمینه‌های مختلفی را، از بینایی کامپیوتر و پردازش زبان طبیعی گرفته تا رباتیک و کشف دارو، متحول کرده است. با این حال، طراحی معماری‌های مؤثر یادگیری عمیق نیازمند تخصص، زمان و منابع محاسباتی قابل توجهی است. جستجوی معماری عصبی (NAS) به عنوان یک راه‌حل امیدوارکننده ظهور کرده است که فرآیند یافتن معماری‌های بهینه شبکه عصبی را خودکار می‌کند. این پست یک نمای کلی جامع از NAS ارائه می‌دهد و اصول، الگوریتم‌ها، چالش‌ها و مسیرهای آینده آن را برای مخاطبان جهانی بررسی می‌کند.

جستجوی معماری عصبی (NAS) چیست؟

جستجوی معماری عصبی (NAS) زیرشاخه‌ای از AutoML (یادگیری ماشین خودکار) است که بر طراحی و بهینه‌سازی خودکار معماری‌های شبکه عصبی تمرکز دارد. الگوریتم‌های NAS به جای تکیه بر شهود انسانی یا آزمون و خطا، به طور سیستماتیک فضای طراحی معماری‌های ممکن را کاوش می‌کنند، عملکرد آن‌ها را ارزیابی کرده و امیدوارکننده‌ترین گزینه‌ها را شناسایی می‌کنند. هدف این فرآیند، یافتن معماری‌هایی است که به عملکرد پیشرفته در وظایف و مجموعه داده‌های خاص دست می‌یابند، در حالی که بار کاری کارشناسان انسانی را کاهش می‌دهند.

به طور سنتی، طراحی یک شبکه عصبی یک فرآیند دستی بود که به تخصص قابل توجهی نیاز داشت. دانشمندان داده و مهندسان یادگیری ماشین با انواع مختلف لایه‌ها (لایه‌های کانولوشنی، لایه‌های بازگشتی و غیره)، الگوهای اتصال و فراپارامترها آزمایش می‌کردند تا بهترین معماری را برای یک مسئله مشخص پیدا کنند. NAS این فرآیند را خودکار می‌کند و به افراد غیرمتخصص نیز اجازه می‌دهد تا مدل‌های یادگیری عمیق با کارایی بالا ایجاد کنند.

چرا NAS مهم است؟

NAS چندین مزیت قابل توجه ارائه می‌دهد:

• خودکارسازی: وابستگی به تخصص انسانی در طراحی معماری‌های شبکه عصبی را کاهش می‌دهد.
• کارایی: می‌تواند معماری‌هایی را کشف کند که از معماری‌های طراحی شده به صورت دستی بهتر عمل می‌کنند و منجر به بهبود دقت و کارایی می‌شوند.
• سفارشی‌سازی: امکان ایجاد معماری‌های تخصصی متناسب با وظایف و مجموعه داده‌های خاص را فراهم می‌کند.
• بهره‌وری: استفاده از منابع را با یافتن معماری‌هایی که با پارامترها و منابع محاسباتی کمتر به عملکرد مطلوب دست می‌یابند، بهینه می‌کند.
• دسترس‌پذیری: یادگیری عمیق را با آسان‌تر کردن توسعه و استقرار مدل‌های با کارایی بالا برای افراد و سازمان‌هایی با تخصص محدود، دموکراتیزه می‌کند.

اجزای کلیدی NAS

یک الگوریتم NAS معمولی از سه جزء اساسی تشکیل شده است:

1. فضای جستجو: مجموعه‌ای از معماری‌های ممکن شبکه عصبی را که الگوریتم می‌تواند کاوش کند، تعریف می‌کند. این شامل تعریف انواع لایه‌ها، اتصالات آن‌ها و فراپارامترها می‌شود.
2. استراتژی جستجو: نحوه کاوش فضای جستجو توسط الگوریتم را مشخص می‌کند. این شامل تکنیک‌هایی مانند جستجوی تصادفی، یادگیری تقویتی، الگوریتم‌های تکاملی و روش‌های مبتنی بر گرادیان است.
3. استراتژی ارزیابی: نحوه ارزیابی عملکرد هر معماری را تعیین می‌کند. این معمولاً شامل آموزش معماری بر روی زیرمجموعه‌ای از داده‌ها و اندازه‌گیری عملکرد آن بر روی یک مجموعه اعتبارسنجی است.

۱. فضای جستجو

فضای جستجو یک جزء حیاتی در NAS است، زیرا دامنه معماری‌هایی را که الگوریتم می‌تواند کاوش کند، تعریف می‌کند. یک فضای جستجوی خوب طراحی شده باید به اندازه کافی گویا باشد تا طیف گسترده‌ای از معماری‌های بالقوه با کارایی بالا را در بر گیرد و در عین حال به اندازه‌ای محدود باشد که امکان کاوش کارآمد را فراهم کند. عناصر رایج در فضاهای جستجو عبارتند از:

• انواع لایه‌ها: انواع لایه‌هایی را که می‌توان در معماری استفاده کرد، مانند لایه‌های کانولوشنی، لایه‌های بازگشتی، لایه‌های کاملاً متصل و لایه‌های ادغام (pooling) تعریف می‌کند. انتخاب انواع لایه‌ها اغلب به وظیفه خاص بستگی دارد. برای تشخیص تصویر، معمولاً از لایه‌های کانولوشنی استفاده می‌شود. برای داده‌های سری زمانی، لایه‌های بازگشتی ترجیح داده می‌شوند.
• الگوهای اتصال: نحوه اتصال لایه‌ها به یکدیگر را مشخص می‌کند. این می‌تواند شامل اتصالات متوالی، اتصالات پرشی (که به لایه‌ها اجازه می‌دهد یک یا چند لایه میانی را دور بزنند) و اتصالات پیچیده‌تر مبتنی بر گراف باشد. ResNets، به عنوان مثال، به طور گسترده از اتصالات پرشی استفاده می‌کند.
• فراپارامترها: فراپارامترهای مرتبط با هر لایه را تعریف می‌کند، مانند تعداد فیلترها در یک لایه کانولوشنی، اندازه کرنل، نرخ یادگیری و تابع فعال‌سازی. بهینه‌سازی فراپارامتر اغلب در فرآیند NAS ادغام می‌شود.
• فضاهای جستجوی مبتنی بر سلول: این روش‌ها شبکه‌های پیچیده را با روی هم چیدن «سلول‌های» تکراری می‌سازند. یک سلول ممکن است شامل یک گراف کوچک از عملیات مانند کانولوشن، ادغام و توابع فعال‌سازی غیرخطی باشد. سپس NAS بر یافتن ساختار بهینه *درون* سلول تمرکز می‌کند، که سپس تکرار می‌شود. این رویکرد به طور چشمگیری فضای جستجو را در مقایسه با جستجوی کل معماری شبکه کاهش می‌دهد.

طراحی فضای جستجو یک انتخاب طراحی حیاتی است. یک فضای جستجوی گسترده‌تر به طور بالقوه امکان کشف معماری‌های جدیدتر و مؤثرتر را فراهم می‌کند، اما هزینه محاسباتی فرآیند جستجو را نیز افزایش می‌دهد. یک فضای جستجوی محدودتر را می‌توان به طور کارآمدتری کاوش کرد، اما ممکن است توانایی الگوریتم را برای یافتن معماری‌های واقعاً نوآورانه محدود کند.

۲. استراتژی جستجو

استراتژی جستجو تعیین می‌کند که الگوریتم NAS چگونه فضای جستجوی تعریف شده را کاوش می‌کند. استراتژی‌های جستجوی مختلف نقاط قوت و ضعف متفاوتی دارند که بر کارایی و اثربخشی فرآیند جستجو تأثیر می‌گذارد. برخی از استراتژی‌های جستجوی رایج عبارتند از:

• جستجوی تصادفی: ساده‌ترین رویکرد، به طور تصادفی معماری‌ها را از فضای جستجو نمونه‌برداری کرده و عملکرد آنها را ارزیابی می‌کند. اگرچه پیاده‌سازی آن آسان است، اما می‌تواند برای فضاهای جستجوی بزرگ ناکارآمد باشد.
• یادگیری تقویتی (RL): از یک عامل یادگیری تقویتی برای یادگیری یک خط‌مشی برای تولید معماری‌ها استفاده می‌کند. عامل بر اساس عملکرد معماری‌های تولید شده پاداش دریافت می‌کند. کنترل‌کننده، که اغلب یک RNN است، اقداماتی را خروجی می‌دهد که معماری را تعریف می‌کنند. سپس معماری آموزش داده می‌شود و عملکرد آن به عنوان پاداش برای به‌روزرسانی کنترل‌کننده استفاده می‌شود. این یکی از رویکردهای پیشگام NAS است، اما از نظر محاسباتی گران است.
• الگوریتم‌های تکاملی (EA): با الهام از تکامل بیولوژیکی، این الگوریتم‌ها جمعیتی از معماری‌ها را حفظ کرده و به طور مکرر از طریق فرآیندهایی مانند جهش و تقاطع آنها را بهبود می‌بخشند. معماری‌ها بر اساس شایستگی (عملکرد) خود انتخاب می‌شوند. جمعیتی از شبکه‌های عصبی در طول زمان تکامل می‌یابند، به طوری که بهترین معماری‌ها زنده مانده و تولید مثل می‌کنند، در حالی که معماری‌های ضعیف‌تر حذف می‌شوند.
• روش‌های مبتنی بر گرادیان: مسئله جستجوی معماری را به عنوان یک مسئله بهینه‌سازی پیوسته بازنویسی می‌کنند، که امکان استفاده از تکنیک‌های بهینه‌سازی مبتنی بر گرادیان را فراهم می‌کند. این رویکرد معمولاً شامل یادگیری مجموعه‌ای از پارامترهای معماری است که اتصال و انواع لایه‌ها را در شبکه تعیین می‌کنند. DARTS (جستجوی معماری تفاضل‌پذیر) یک نمونه برجسته است که معماری را به عنوان یک گراف جهت‌دار غیرمدور نشان می‌دهد و انتخاب‌های گسسته (مثلاً کدام عملیات را اعمال کند) را به انتخاب‌های پیوسته تبدیل می‌کند.
• بهینه‌سازی بیزی: از یک مدل احتمالی برای پیش‌بینی عملکرد معماری‌های دیده نشده بر اساس عملکرد معماری‌های ارزیابی شده قبلی استفاده می‌کند. این به الگوریتم اجازه می‌دهد تا با تمرکز بر مناطق امیدوارکننده، فضای جستجو را به طور کارآمد کاوش کند.

انتخاب استراتژی جستجو به عواملی مانند اندازه و پیچیدگی فضای جستجو، منابع محاسباتی موجود و توازن مطلوب بین کاوش و بهره‌برداری بستگی دارد. روش‌های مبتنی بر گرادیان به دلیل کارایی خود محبوبیت پیدا کرده‌اند، اما RL و EA می‌توانند برای کاوش فضاهای جستجوی پیچیده‌تر مؤثرتر باشند.

۳. استراتژی ارزیابی

استراتژی ارزیابی تعیین می‌کند که عملکرد هر معماری چگونه ارزیابی می‌شود. این معمولاً شامل آموزش معماری بر روی زیرمجموعه‌ای از داده‌ها (مجموعه آموزش) و اندازه‌گیری عملکرد آن بر روی یک مجموعه اعتبارسنجی جداگانه است. فرآیند ارزیابی می‌تواند از نظر محاسباتی گران باشد، زیرا نیاز به آموزش هر معماری از ابتدا دارد. چندین تکنیک می‌تواند برای کاهش هزینه محاسباتی ارزیابی استفاده شود:

• ارزیابی با وفاداری پایین: آموزش معماری‌ها برای مدت زمان کوتاه‌تر یا بر روی زیرمجموعه کوچکتری از داده‌ها برای به دست آوردن تخمین تقریبی از عملکرد آنها. این امکان را فراهم می‌کند تا معماری‌های با عملکرد ضعیف به سرعت حذف شوند.
• اشتراک‌گذاری وزن: اشتراک‌گذاری وزن‌ها بین معماری‌های مختلف در فضای جستجو. این کار تعداد پارامترهایی را که باید برای هر معماری آموزش داده شوند کاهش می‌دهد و به طور قابل توجهی سرعت فرآیند ارزیابی را افزایش می‌دهد. روش‌های One-Shot NAS مانند ENAS (جستجوی معماری عصبی کارآمد) از اشتراک‌گذاری وزن بهره می‌برند.
• وظایف جایگزین: ارزیابی معماری‌ها بر روی یک وظیفه ساده‌تر یا مرتبط که از نظر محاسباتی هزینه کمتری نسبت به وظیفه اصلی دارد. به عنوان مثال، ارزیابی معماری‌ها بر روی یک مجموعه داده کوچکتر یا با وضوح پایین‌تر.
• پیش‌بینی عملکرد: آموزش یک مدل جایگزین (surrogate) برای پیش‌بینی عملکرد معماری‌ها بر اساس ساختار آنها. این امکان ارزیابی معماری‌ها را بدون آموزش واقعی آنها فراهم می‌کند.

انتخاب استراتژی ارزیابی شامل یک توازن بین دقت و هزینه محاسباتی است. تکنیک‌های ارزیابی با وفاداری پایین می‌توانند فرآیند جستجو را تسریع کنند اما ممکن است منجر به تخمین‌های عملکرد نادرست شوند. اشتراک‌گذاری وزن و پیش‌بینی عملکرد می‌توانند دقیق‌تر باشند اما به سربار اضافی برای آموزش وزن‌های مشترک یا مدل جایگزین نیاز دارند.

انواع رویکردهای NAS

الگوریتم‌های NAS را می‌توان بر اساس عوامل مختلفی، از جمله فضای جستجو، استراتژی جستجو و استراتژی ارزیابی دسته‌بندی کرد. در اینجا برخی از دسته‌بندی‌های رایج آورده شده است:

• جستجوی مبتنی بر سلول در مقابل جستجوی ماکرو-معماری: جستجوی مبتنی بر سلول بر طراحی ساختار بهینه یک سلول تکراری تمرکز دارد که سپس برای ایجاد کل شبکه روی هم چیده می‌شود. جستجوی ماکرو-معماری ساختار کلی شبکه، از جمله تعداد لایه‌ها و اتصالات آنها را کاوش می‌کند.
• جستجوی جعبه-سیاه در مقابل جعبه-سفید: جستجوی جعبه-سیاه ارزیابی معماری را به عنوان یک جعبه سیاه در نظر می‌گیرد و فقط ورودی و خروجی را بدون دسترسی به عملکرد داخلی معماری مشاهده می‌کند. یادگیری تقویتی و الگوریتم‌های تکاملی معمولاً برای جستجوی جعبه-سیاه استفاده می‌شوند. جستجوی جعبه-سفید از عملکرد داخلی معماری، مانند گرادیان‌ها، برای هدایت فرآیند جستجو استفاده می‌کند. روش‌های مبتنی بر گرادیان برای جستجوی جعبه-سفید استفاده می‌شوند.
• جستجوی تک-مرحله‌ای (One-Shot) در مقابل چند-آزمایشی (Multi-Trial): جستجوی تک-مرحله‌ای یک «ابرشبکه» واحد را آموزش می‌دهد که تمام معماری‌های ممکن در فضای جستجو را در بر می‌گیرد. سپس معماری بهینه با استخراج یک زیرشبکه از ابرشبکه انتخاب می‌شود. جستجوی چند-آزمایشی هر معماری را به طور مستقل آموزش می‌دهد.
• جستجوی تفاضل‌پذیر در مقابل غیر-تفاضل‌پذیر: روش‌های جستجوی تفاضل‌پذیر، مانند DARTS، مسئله جستجوی معماری را به یک مسئله بهینه‌سازی پیوسته تبدیل می‌کنند که امکان استفاده از گرادیان کاهشی را فراهم می‌کند. روش‌های جستجوی غیر-تفاضل‌پذیر، مانند یادگیری تقویتی و الگوریتم‌های تکاملی، به تکنیک‌های بهینه‌سازی گسسته متکی هستند.

چالش‌ها و محدودیت‌های NAS

علی‌رغم وعده‌هایش، NAS با چندین چالش و محدودیت روبرو است:

• هزینه محاسباتی: آموزش و ارزیابی تعداد زیادی از معماری‌ها می‌تواند از نظر محاسباتی گران باشد و به منابع و زمان قابل توجهی نیاز دارد. این امر به ویژه برای فضاهای جستجوی پیچیده و استراتژی‌های ارزیابی با وفاداری بالا صادق است.
• تعمیم‌پذیری: معماری‌های کشف شده توسط NAS ممکن است به خوبی به سایر مجموعه داده‌ها یا وظایف تعمیم نیابند. بیش‌برازش (Overfitting) به مجموعه داده خاص مورد استفاده در طول فرآیند جستجو یک مشکل رایج است.
• طراحی فضای جستجو: طراحی یک فضای جستجوی مناسب یک کار چالش‌برانگیز است. یک فضای جستجوی بیش از حد محدود ممکن است توانایی الگوریتم را برای یافتن معماری‌های بهینه محدود کند، در حالی که یک فضای جستجوی بیش از حد گسترده ممکن است فرآیند جستجو را غیرقابل حل کند.
• پایداری: الگوریتم‌های NAS می‌توانند به تنظیمات فراپارامترها و مقداردهی اولیه تصادفی حساس باشند. این می‌تواند منجر به نتایج متناقض شود و بازتولید یافته‌ها را دشوار کند.
• تفسیرپذیری: معماری‌های کشف شده توسط NAS اغلب پیچیده و تفسیر آنها دشوار است. این می‌تواند درک اینکه چرا یک معماری خاص به خوبی عمل می‌کند و چگونه می‌توان آن را بیشتر بهبود بخشید، چالش‌برانگیز کند.

کاربردهای NAS

NAS با موفقیت در طیف گسترده‌ای از وظایف و حوزه‌ها به کار گرفته شده است، از جمله:

• طبقه‌بندی تصویر: NAS برای کشف معماری‌های پیشرفته برای وظایف طبقه‌بندی تصویر، مانند ImageNet و CIFAR-10، استفاده شده است. نمونه‌ها شامل NASNet، AmoebaNet و EfficientNet هستند.
• تشخیص اشیاء: NAS در وظایف تشخیص اشیاء به کار رفته است، جایی که برای طراحی آشکارسازهای اشیاء کارآمدتر و دقیق‌تر استفاده شده است.
• تقطیع معنایی: NAS برای کشف معماری‌ها برای تقطیع معنایی استفاده شده است، که شامل اختصاص یک برچسب به هر پیکسل در یک تصویر است.
• پردازش زبان طبیعی (NLP): NAS برای طراحی معماری‌ها برای وظایف مختلف NLP، مانند ترجمه ماشینی، طبقه‌بندی متن و مدل‌سازی زبان استفاده شده است. به عنوان مثال، برای بهینه‌سازی معماری شبکه‌های عصبی بازگشتی و ترنسفورمرها به کار رفته است.
• تشخیص گفتار: NAS در وظایف تشخیص گفتار به کار رفته است، جایی که برای طراحی مدل‌های صوتی دقیق‌تر و کارآمدتر استفاده شده است.
• رباتیک: NAS می‌تواند برای بهینه‌سازی خط‌مشی‌های کنترلی ربات‌ها استفاده شود و به ربات‌ها اجازه دهد تا وظایف پیچیده را به طور کارآمدتری یاد بگیرند.
• کشف دارو: NAS پتانسیل استفاده در کشف دارو برای طراحی مولکول‌هایی با خواص مطلوب را دارد. به عنوان مثال، می‌توان از آن برای بهینه‌سازی ساختار مولکول‌ها برای بهبود میل ترکیبی آنها به یک پروتئین هدف استفاده کرد.

مسیرهای آینده NAS

زمینه NAS به سرعت در حال تکامل است و چندین مسیر تحقیقاتی امیدوارکننده دارد:

• NAS کارآمد: توسعه الگوریتم‌های NAS کارآمدتر که به منابع محاسباتی و زمان کمتری نیاز دارند. این شامل تکنیک‌هایی مانند اشتراک‌گذاری وزن، ارزیابی با وفاداری پایین و پیش‌بینی عملکرد است.
• NAS قابل انتقال: طراحی الگوریتم‌های NAS که بتوانند معماری‌هایی را کشف کنند که به خوبی به سایر مجموعه داده‌ها و وظایف تعمیم می‌یابند. این شامل تکنیک‌هایی مانند فرایادگیری و انطباق دامنه است.
• NAS تفسیرپذیر: توسعه الگوریتم‌های NAS که معماری‌هایی تولید می‌کنند که تفسیر و درک آنها آسان‌تر است. این شامل تکنیک‌هایی مانند مصورسازی و هوش مصنوعی قابل توضیح است.
• NAS برای دستگاه‌های با منابع محدود: توسعه الگوریتم‌های NAS که می‌توانند معماری‌های مناسب برای استقرار در دستگاه‌های با منابع محدود، مانند تلفن‌های همراه و سیستم‌های تعبیه‌شده، طراحی کنند. این شامل تکنیک‌هایی مانند کوانتیزاسیون و هرس شبکه است.
• NAS برای سخت‌افزار خاص: بهینه‌سازی معماری‌های شبکه عصبی برای بهره‌برداری از معماری‌های سخت‌افزاری خاص، مانند GPU ها، TPU ها و FPGA ها.
• ترکیب NAS با سایر تکنیک‌های AutoML: ادغام NAS با سایر تکنیک‌های AutoML، مانند بهینه‌سازی فراپارامتر و مهندسی ویژگی، برای ایجاد خطوط لوله یادگیری ماشین خودکار جامع‌تر.
• طراحی خودکار فضای جستجو: توسعه تکنیک‌هایی برای طراحی خودکار خود فضای جستجو. این می‌تواند شامل یادگیری انواع لایه بهینه، الگوهای اتصال و فراپارامترها برای گنجاندن در فضای جستجو باشد.
• NAS فراتر از یادگیری نظارت‌شده: گسترش NAS به سایر پارادایم‌های یادگیری، مانند یادگیری بدون نظارت، یادگیری تقویتی و یادگیری خودنظارتی.

تأثیر جهانی و ملاحظات اخلاقی

پیشرفت‌ها در NAS تأثیر جهانی قابل توجهی دارند و پتانسیل دموکراتیزه کردن یادگیری عمیق و در دسترس قرار دادن آن برای مخاطبان گسترده‌تری را ارائه می‌دهند. با این حال، در نظر گرفتن پیامدهای اخلاقی طراحی خودکار مدل بسیار مهم است:

• تقویت سوگیری: الگوریتم‌های NAS می‌توانند به طور ناخواسته سوگیری‌های موجود در داده‌های آموزشی را تقویت کرده و منجر به نتایج تبعیض‌آمیز شوند. اطمینان از اینکه داده‌های آموزشی نماینده و بدون سوگیری هستند، بسیار مهم است.
• عدم شفافیت: معماری‌های پیچیده کشف شده توسط NAS می‌توانند به سختی تفسیر شوند، که درک نحوه تصمیم‌گیری آنها را چالش‌برانگیز می‌کند. این عدم شفافیت می‌تواند نگرانی‌هایی در مورد مسئولیت‌پذیری و انصاف ایجاد کند.
• جایگزینی شغلی: خودکارسازی طراحی مدل به طور بالقوه می‌تواند منجر به جایگزینی شغلی برای دانشمندان داده و مهندسان یادگیری ماشین شود. مهم است که پیامدهای اجتماعی و اقتصادی خودکارسازی را در نظر گرفت و در برنامه‌های بازآموزی و ارتقاء مهارت سرمایه‌گذاری کرد.
• تأثیر زیست‌محیطی: هزینه محاسباتی NAS می‌تواند به انتشار کربن کمک کند. توسعه الگوریتم‌های NAS با بهره‌وری انرژی بیشتر و استفاده از منابع انرژی تجدیدپذیر برای تأمین انرژی فرآیند آموزش مهم است.

پرداختن به این ملاحظات اخلاقی برای اطمینان از اینکه NAS به طور مسئولانه و به نفع همگان استفاده می‌شود، ضروری است.

مثال عملی: طبقه‌بندی تصویر با یک مدل تولید شده توسط NAS

سناریویی را در نظر بگیرید که در آن یک سازمان غیردولتی کوچک در یک کشور در حال توسعه می‌خواهد پیش‌بینی عملکرد محصول را با استفاده از تصاویر ماهواره‌ای بهبود بخشد. آنها منابع لازم برای استخدام مهندسان با تجربه یادگیری عمیق را ندارند. با استفاده از یک پلتفرم AutoML مبتنی بر ابر که NAS را در خود جای داده است، آنها می‌توانند:

1. بارگذاری مجموعه داده برچسب‌گذاری شده خود: مجموعه داده شامل تصاویر ماهواره‌ای از زمین‌های کشاورزی است که با عملکرد محصول مربوطه برچسب‌گذاری شده‌اند.
2. تعریف مسئله: مشخص می‌کنند که می‌خواهند طبقه‌بندی تصویر را برای پیش‌بینی عملکرد (به عنوان مثال، «عملکرد بالا»، «عملکرد متوسط»، «عملکرد پایین») انجام دهند.
3. اجازه دهید NAS کار را انجام دهد: پلتفرم AutoML از NAS برای کاوش خودکار معماری‌های مختلف شبکه عصبی بهینه‌سازی شده برای مجموعه داده و مسئله خاص آنها استفاده می‌کند.
4. استقرار بهترین مدل: پس از فرآیند جستجو، پلتفرم بهترین مدل تولید شده توسط NAS را که آماده استقرار است، ارائه می‌دهد. سپس این سازمان غیردولتی می‌تواند از این مدل برای پیش‌بینی عملکرد محصول در مناطق جدید استفاده کند و به کشاورزان در بهینه‌سازی شیوه‌های خود و بهبود امنیت غذایی کمک کند.

این مثال نشان می‌دهد که چگونه NAS می‌تواند سازمان‌هایی با منابع محدود را برای بهره‌گیری از قدرت یادگیری عمیق توانمند سازد.

نتیجه‌گیری

جستجوی معماری عصبی (NAS) یک تکنیک قدرتمند AutoML است که طراحی مدل‌های یادگیری عمیق را خودکار می‌کند. با کاوش سیستماتیک فضای طراحی معماری‌های ممکن، الگوریتم‌های NAS می‌توانند مدل‌هایی با کارایی بالا کشف کنند که از مدل‌های طراحی شده به صورت دستی بهتر عمل می‌کنند. در حالی که NAS با چالش‌هایی مربوط به هزینه محاسباتی، تعمیم‌پذیری و تفسیرپذیری روبرو است، تحقیقات در حال انجام به این محدودیت‌ها رسیدگی کرده و راه را برای الگوریتم‌های NAS کارآمدتر، قابل انتقال‌تر و تفسیرپذیرتر هموار می‌کند. با ادامه تکامل این حوزه، NAS آماده است تا نقش فزاینده‌ای در دموکراتیزه کردن یادگیری عمیق و امکان کاربرد آن در طیف گسترده‌ای از وظایف و حوزه‌ها ایفا کند و به نفع افراد و سازمان‌ها در سراسر جهان باشد. در نظر گرفتن پیامدهای اخلاقی در کنار پیشرفت‌های فناورانه برای اطمینان از نوآوری و استقرار مسئولانه این ابزارهای قدرتمند بسیار حیاتی است.